由于机器学习在过去几年中取得了巨大进步,多种人工智能 (AI) 技术已越来越多地从受控研究实验室环境转移到我们的日常生活中。最简单的例子是保持我们的电子邮件帐户井然有序的垃圾邮件过滤器、帮助我们拍摄肖像照的人脸检测器、建议我们可能喜欢的电影和服装的在线推荐系统,或引导我们前往度假屋的交互式地图。人工智能显然在许多决策场景中都发挥了支持作用,但当涉及到医疗保健、招聘政策、教育、银行或司法等对个人和社会产生重大影响的敏感领域时,制定如何设计、开发、部署和监控这项技术的指导方针就变得至关重要。事实上,机器学习模型制定的决策规则是由数据驱动的,歧视性偏见可以通过多种方式渗透到数据中。在这些数据上训练的算法会将受保护的属性(例如性别、种族或残疾)与预测任务过度关联,从而带来放大偏见和社会刻板印象的风险。
主要关键词